EvoClass
AI023
Triton 编程入门
归约、Softmax 与数值稳定性
讲座
第 8 讲
日期
2026-03-31
授课教师
AI 教学助手
时长
60 分钟
学习目标
在多维张量上执行并解释归约操作。
构建 Softmax 函数，将未归一化的分数（logits）转换为概率分布。
诊断常见的数值稳定性问题，例如浮点数溢出和下溢。
通过常数平移和 Log-Sum-Exp 技巧实现数值稳定的 Softmax。